Адвокат в гореща вода, след като използва изкуствен интелект за представяне на измислена информация: `некомпетентен`

Адвокат от Ню Йорк може да бъде осъден дисциплинарно, откакто беше намерено, че случай, който тя цитира, е генериран от изкуствен интелект и не фактически съществуват.

Вторият областен апелативен съд на Съединени американски щати подреди на юрист Jae Lee да взе участие в своя панел за недоволства предходната седмица, откакто откри, че е употребила ChatGPT на OpenAI, с цел да изследва предходни случаи за правосъдно дело за здравна неточност, само че не съумя удостовери дали казусът, който тя цитира, фактически е съществувал, съгласно отчет на Ройтерс.

Адвокатът е присъединил фиктивното решение на щатския съд в тъжба по делото на нейния клиент, в което се твърди, че доктор от Куинс е провалил аборт, съгласно отчета, карайки съда да подреди на Лий да показа копие от решението, което юристът по-късно откри, че „ не може да даде “.

Поведението на юриста „ пада много под главните отговорности на юриста “, Вторият областен апелативен съд на Съединени американски щати заключи в своя дисциплинарен обзор, който беше изпратен на Лий.

Логото на ChatGPT на преносим компютър. (Габи Джоунс/Блумбърг посредством Getty Images)

По-късно Лий ще признае, че е употребила случай, който й е бил „ препоръчан “ от ChatGPT, известен AI чатбот, и не е съумяла сама да ревизира резултатите.

Решението на юриста да употребява известното приложение идва, макар че специалистите предизвестиха против сходни практики, отбелязвайки, че AI е относително нова технология, която също е добре известна с „ халюцинациите “ на подправени или подвеждащи резултати.

p>

„ Когато употребявате всяко AI приложение, значимо е да разберете, че цел номер едно на AI е да ви направи щастливи, а не да откриете безспорната истина. Освен това е от решаващо значение да разпознаете по какъв начин работи AI, “ Кристофър Александър, основен анализатор на Pioneer Development Group, сподели пред Fox News Digital. „ ИИ не е умишлен талант, който е висшият съдия на цялото познание. “

Лий твърди, че в нейното решение не е имало „ неприятна воля, умишленост или предубеждения към противниковата страна или правосъдната система “. да употребява подправения случай, като сподели на Ройтерс, че е „ отдадена на спазването на най-високите професионални стандарти и на метода към този въпрос със сериозността, която заслужава. “

Лий не отговори незабавно на искане на Fox News за коментар.

Случаят на юриста идва, когато правосъдната система все по-често би трябвало да се сблъсква с потреблението на AI в правосъдни документи, в това число случай през юни 2023 година, в който двама нюйоркски юристи бяха глобени откакто беше открито, те подадоха къса информация, която съдържаше шест измислени цитата, съгласно Ройтерс. Друг юрист от Колорадо беше отхвърлен от адвокатска специалност за сходни дейности през ноември.

„ Това илюстрира по какъв начин американската професионална класа става все по-некомпетентна “, сподели Самуел Манголд-Ленет, щатен редактор във The Federalist, пред Fox News Digital. „ Самата мисъл за потребление на chatGPT или друга услуга за тази цел трябваше да бъде изтръгната от този юрист по време на учебно заведение. Че не е имало дължима грижа и по-нататъшно следствие на правосъдното дело, генерирано от ChatGPT, е непристойно. “

Манголд-Ленет добави, че професионалните организации и адвокатските асоциации би трябвало да създадат повече, „ с цел да държат своите членове виновни и да ги образоват в допълнение за следствията от несъразмерната взаимозависимост от ИИ за проучвания “, като твърди, че потреблението на ИИ за проучвания не е проблем, а че работата би трябвало да бъде тествана от тези, които употребяват технологията.

Известно е, че изкуственият разсъдък и преди халюцинира подправени правосъдни каузи. (iStock)

„ Некомпетентността и самодоволството са необятно публикувани в професионалните кръгове, неща като това ще продължат да бъдат проблем, до момента в който хората не бъдат образовани и подведени под отговорност, " сподели Манголд-Ленет.

Джейк Дентън, теоретичен помощник в Центъра за техническа политика на Heritage Foundation, се съгласи, че AI " има голямо заричане ", само че предизвести, че технологията към момента има доста провокации за превъзмогване.

" Настоящата липса на бистрота в доста Al системи е тревожна, защото рискува експерти, като юристи, да се доверят на резултатите от системата макар че не схващат изцяло по какъв начин е генериран изходът “, сподели Дентън пред Fox News Digital.

Тези проблеми, в това число халюцинациите, „ не са нов феномен “, съгласно на шефа на политиката на плана Bull Moose Зивен Хейвънс, който сподели на Fox News Digital, че технологията би трябвало да се употребява единствено от юристи за „ допълнение “ на проучванията.

„ Те би трябвало да прегледат цялата информация, с цел да подсигуряват нейната достоверност “, сподели Хейвънс. „ Освен това разработчиците на изкуствен интелект би трябвало да продължат да работят за понижаване на броя на халюцинациите. “

Проблемите, довели до дисциплината на Лий, надали ще се трансформират скоро, което значи, че хората, които употребяват платформи като ChatGPT, евентуално ще продължат да бъдат държани виновни, когато технологията се обърка.

„ Когато хората показват генерирана от AI работа като своя лична, от тях би трябвало да се изисква да поемат цялостната отговорност за тази работа – и да понесат следствията, когато е плагиатствана, нехаен или неакуратен “, сподели Джон Швепе, политически шеф на плана American Principles, пред Fox News Digital. „ Междувременно AI фирмите би трябвало да създадат всичко допустимо, с цел да припомнят на потребителите, че AI към момента е в начален етап и не би трябвало да се преглежда като благонадежден или благонадежден по никакъв метод. “

Приложенията за чат на Microsoft Bing Chat и ChatGPT AI се виждат на мобилно устройство. (Jaap Arriens/NurPhoto посредством Getty Images)

Според отчета на Reuters комитетът по разпоредбите на 2-ра верига организира полемики по отношение на изкуствения разсъдък, само че към момента не е образувал група, която да прегледа изцяло казуса. Междувременно обособен отчет на Reuters през ноември разкри, че 5-ти областен апелативен съд на Съединени американски щати предлага ново предписание, което ще изисква от юристите да удостоверят, че не разчитат на AI за правене на бюлетини и че информацията, получена благодарение на AI, е била прегледана за акуратност от хора.

Такива оферти идват, защото AI не е подготвен да се оправи с това, което се желае от него от някои юристи, значително с помощта на неналичието на задоволително данни за случаи, с цел да може технологията черпете от.

„ Количеството данни за проблеми в моделите през днешния ден не е задоволително, с цел да ги използваме за правене на сводки или писмени мнения без голямо количество бърникане в подканите. Така че моделите ще халюцинират “, Фил Сийгъл, създателят на Центъра за усъвършенствана подготвеност и симулация на отговор на закани (CAPTRS), сподели пред Fox News Digital. „ Дори по-късно ще има потребност от доста първокласен надзор, защото моделите ще поемат както правния език, по този начин и тълкования, което може да способства за илюзия на модела, даже откакто всички данни са в модела. “

Междувременно Александър вижда път напред за потребление на AI в правната област, макар че предизвести, че такава платформа за тази приложимост сега не съществува.

„ Със сигурност е допустимо да се построи или може би да се промени AI от, за и с правни специалисти, само че това сега не съществува на равнището, належащо за потребление за правни цитати “, сподели Александър. „ Най-добре представящите се платформи за изкуствен интелект в частния бранш са общи по природа и се усъвършенстват посредством взаимоотношение и непрестанно образование и това би трябвало да служи като предизвестие за всеки, който употребява изкуствен интелект за каквато и да е цел. ИИ е инструмент, който ви води до решението, само че рядко дава самото решение. "